Intelligenza artificiale e stereotipi: serve più consapevolezza

In tempi recenti, l’intelligenza artificiale è diventata uno strumento di uso spesso quotidiano. Tuttavia, una tale diffusione non sempre è accompagnata da un adeguato livello di conoscenza, attenzione e responsabilità. Spesso, infatti, viene utilizzata in modo rapido e automatico, senza riflettere sui funzionamenti che la guidano o sugli effetti che può avere sulle informazioni, le immagini e i linguaggi che produce. Chi utilizza quotidianamente strumenti di intelligenza artificiale con un sapere contro-stereotipico se ne accorge facilmente, a differenza di persone meno provviste di cognizioni specifiche. Può capitare, ad esempio, che un sistema modifichi un’immagine in modo inatteso, attribuendo caratteristiche stereotipate ad un soggetto sulla base di pregiudizi di genere: un volto reso più “maschile” o “femminile” per posture, dettagli o contesti interpretati secondo schemi predefiniti. Lo stesso accade nel linguaggio, dove emergono semplificazioni e generalizzazioni che riflettono modelli culturali radicati. Di questo tema parla nel dettaglio Eleonora Pinzuti, Research Fellow presso l’Università di Siena, saggista, poeta e presidente AIF Toscana, nell'handbook “Body shaming, cyberbullismi e violenze verbali ai tempi dell'AI".

La realizzazione di questo fascicolo fa parte del progetto Differenze 2.0, promosso dall’Uisp, che pone al centro l’educazione all’uguaglianza e al rispetto. Si tratta di un percorso pensato per le scuole secondarie che, attraverso attività laboratoriali e la partecipazione attiva dei giovani, mira a prevenire la violenza di genere e le discriminazioni. Il progetto ha previsto la creazione di una collana di quattro handbook didattici, utilizzati come risorse pratiche per studenti, insegnanti ed educatori. Tra questi, il volume realizzato e scritto da Eleonora Pinzuti è utile per affrontare in classe, e non solo, i temi legati all’intelligenza artificiale, ai cyberbullismi e ai relativi meccanismi digitali ed etici che ruotano attorno a questi temi, oltre a creare uno spazio di confronto e interazione dove il corpo è l’elemento centrale di riflessione. I volumi sono stati presentati martedì 31 marzo a Roma e Pinzuti è intervenuta a distanza. Leggi l’articolo di resoconto della giornata. 

Un focus particolare è stato dedicato all'intelligenza artificiale, con le sue potenzialità e le criticità che emergono in merito a reiterazione di stereotipi e pregiudizi: "L’intelligenza artificiale non è neutra né tantomeno neutrale: riflette il sistema culturale di chi l’ha progettata e, per questo, può veicolare stereotipi - spiega Eleonora Pinzuti - Questo accade sia nelle immagini sia nel linguaggio, dove spesso emergono semplificazioni e modelli già radicati nella società: per difendersi è fondamentale sviluppare consapevolezza e conoscenze specifiche. È importante non accettare passivamente ciò che l’intelligenza artificiale propone ma correggerlo e segnalarlo quando necessario. Il rischio più grande, infatti, è interiorizzare questi stereotipi senza accorgersene, finendo per “normalizzarli” come elementi dati e perciò stesso invisibili. Per tale motivo segnalare pregiudizi e distorsioni agli sviluppatori (e alle troppo poche sviluppatrici!) è un dovere socio-culturale: contribuisce a migliorare i sistemi e a ridurre la distorsione degli stereotipi. Questo tema è particolarmente rilevante nel mondo della scuola. Le persone giovani vengono spesso definite “nativi digitali”, ma non sempre possiedono gli strumenti per usare in modo critico le tecnologie. Per questo è essenziale educare alla riflessione: non tutto ciò che si legge online o nei libri è necessariamente corretto". 

GUARDA L'INTERVENTO DI ELEONORA PINZUTI SULL'INTELLIGENZA ARTIFICIALE

"Un ulteriore elemento di attenzione riguarda il modo in cui le informazioni vengono oggi diffuse - aggiunge Pinzuti - I contenuti digitali, soprattutto sui social, non sono pensati solo per informare, ma anche per generare reazioni (like) e dunque profitto. Questo può favorire forme di dipendenza e spingere le persone a restare costantemente connesse, esposte cioè a flussi continui di contenuti non verificati né immediatamente verificabili. Di fronte a tutto questo, il compito educativo è chiaro: aiutare le persone, soprattutto le più giovani, a comprendere cosa si celi dietro quanto viene proposto, a sviluppare capacità di analisi che riconoscano i meccanismi volti alla produzione e alla diffusione delle informazioni. Questo vale per tutti, ma ancora di più per le nuove generazioni. Solo attraverso consapevolezza, educazione e spirito critico è possibile utilizzare l’intelligenza artificiale e le tecnologie digitali in modo davvero libero e responsabile".

Nel suo intervento Eleonora Pinzuti ha approfondito i temi trattati nel volume realizzato per Differenze 2.0, in particolare ha evidenziato come le deviazioni della comunicazione siano particolarmente inerenti all'argomento sportivo: “Quando si parla di sport è impossibile non parlare di corpo e narrare di corpo significa evidenziare l’importanza del linguaggio in tutte le sue declinazioni. Il body shaming, del quale ricorrerà la prima Giornata mondiale il 16 maggio, ci ricorda primariamente che il corpo è descritto, scritto, raccontato, narrato e, purtroppo, abusato prima di tutto linguisticamente. Ci sono corpi che hanno sempre contato, come il maschio bianco, cisgender, abilista, borghese ed eterosessuale. E ci sono corpi che storicamente non contano, come i corpi femminili, quelli non cis, quelli LGBTIQA+ che vengono sanzionati verbalmente, portando così iscritto il segno meno. Il soggetto donna, quando accede allo spazio pubblico, anche attraverso lo sport, rimane vittima di violente forme di minorizzazioni. Del resto, nel perimetro del corpo si esercitano forme di annullamento che possono divenire di autoannullamento. Il rapporto tra corpo e racconto è stringente, per questo è necessario proporre un linguaggio rispettoso e relazioni basate sull’inclusione”.

GUARDA IL VIDEO DELL'INTERVENTO INTEGRALE DI ELEONORA PINZUTI